#!/bin/bash
dt='{{ execution_date | cst_ds }}'
name='拦截退转中退回始发网点明细'
# 在退出时清理文件
trap "rm -f /tmp/${name}_${dt}.zip /tmp/${name}_${dt}.csv && echo 'removed tmp files'" EXIT
# 创建txt文件
touch /tmp/${name}_${dt}.txt
#将中文字段名输入文件顶部
#将查询结果追加到文件中
{
  echo -e "退件登记时间\t运单号\t订单来源编码\t订单来源名称\t寄件网点编码\t寄件网点名称\t寄件网点代理区编码\t寄件网点代理区名称\t退回机构编码\t退回机构\t退回机构的代理区编码\t退回机构的代理区\t是否录入问题件\t问题件一级类型编码\t问题件一级类型\t问题件二级类型编码\t问题>件二级类型\t问题件登记时间\t">/tmp/${name}_${dt}.txt;
  spark-sql --driver-memory 8G --num-executors 6  --executor-memory 4g --executor-cores 4  --conf spark.executor.memoryOverhead=4g --conf spark.driver.maxResultSize=3g -S -e "
  select reback_time,
  waybill_no,
  order_source_code,
  order_source_name,
  sender_network_code,
  sender_network_name,
  sender_agent_code,
  sender_agent_name,
  reback_apply_network_code,
  reback_apply_network_name,
  reback_apply_agent_code,
  reback_apply_agent_name,
  is_problem_piece,
  proble_type_subject_code,
  proble_type_subject_name,
  second_level_type_code,
  second_level_type_name,
  proble_create_date
  from  jms_dm.dm_waybill_reback_sender_detail_dt WHERE dt = '{{ execution_date | cst_ds }}';
" >>/tmp/${name}_${dt}.txt
}
# 替换分隔符，并输出csv
cat /tmp/${name}_${dt}.txt | tr -s '\t' ',' > /tmp/${name}_${dt}.csv
# 压缩并删除 csv 文件
zip -jrm /tmp/${name}_${dt}.zip /tmp/${name}_${dt}.csv
# 上传文件
/usr/local/python3/bin/python3  /usr/local/airflow/dags/utils/operators/upload_oss.py ${name}/${name}_${dt}.zip /tmp/${name}_${dt}.zip
# zip 文件将在进程退出后被自动清理

#声明文件大小
data_size=$(ls -lh /tmp/${name}_${dt}.zip | awk '{print $5}')
#打印文件信息
Message="${name}_${dt}.zip 上传成功 大小: $data_size"
#配置钉钉告警
curl 'https://oapi.dingtalk.com/robot/send?access_token=816a8f35fd84432ffa6bff9d7714abc322628bb4a8ded86908550d2335aba613' \
   -H 'Content-Type: application/json' \
   -d "
  {\"msgtype\": \"text\",
    \"text\": {
        \"content\": \"监控内容:$Message\"
     }
  }" || true
rm -f  /tmp/${name}_${dt}.txt
